IBM Watson 骂声一片：因建议的癌症疗法“不安全、不正确”

据Stat News的一篇文章报道，来自IBM的内部公司文件显示，使用该公司的Watson超级计算机的医疗专家们使用该软件时，发现了“表明治疗建议不安全、不正确的多起例子”。

Stat审查了IBM Watson前任健康副主管安德鲁•诺登（Andrew Norden）在2017年6月和7月做的两场报告所附有的文件。报道称，这些文件已交由IBM Watson Health的管理层过目。

据Stat报道，这些文件对Watson肿瘤（Watson for Oncology）系统提出了强烈的批评，指出该产品给出的建议“常常不正确”，“给出建议和开发底层技术的方法存在严重的问题。”

文件中的一个例子是一名65岁男子被诊断患有肺癌，他似乎伴有严重出血。据报道，Watson建议对该男子实行化疗，并开了“贝伐珠单抗”这种药，可是药物副作用显示，该药可能导致“严重或致命的大出血”，因此不应开给严重出血的人。

纪念斯隆•凯特琳（MSK）癌症中心的发言人告诉Stat，他们认为这个建议并没有给予实际的病人，它只是系统测试的一部分。

据报道称，这些文件归咎于IBM工程师和MSK医生提供的训练，MSK在2012年与IBM合作，训练Watson更像医生那样“思考”。文件指出，据称医生向Watson馈送假设的患者数据，或“合成”病例数据，而不是向软件馈送实际的患者数据。这意味着，如果其他医院使用由MSK训练的Watson for Oncology，医生可能收到受MSK医生的治疗偏好指导的治疗建议，而不是受AI解读实际的患者数据指导的建议。

对于一些医生来说，结果似乎不尽如人意。

据Stat审查的文件显示，佛罗里达州朱庇特医院的一名医生对IBM说：“这个产品是一堆屎。我们听信了营销人员的宣传购买了它，希望能实现愿景。我们在大多数情况下没法用它。”

据报道，这位医生是内部文件中提到的众多投诉者之一。

在诺登做其中一场报告的几天后，外媒Gizmodo就Watson炒作过度、存在缺点的报道采访了朱庇特医院的一名肿瘤科医生。在IBM Watson Health安排的采访中，这位名叫Shah的医生表示，朱庇特的医生们无法就治疗达成一致时，Watson有时充当另一种意见。正如内部文件所示，Shah对于Watson既没有明确的认可，也没有像那位匿名的朱庇特医生那样与IBM高管坦诚交流时提出严厉的抨击。、

回应Stat的报道时，IBM的发言人告诉Gizmodo，Watson for Oncology受过训练，可帮助肿瘤科医生治疗13种癌症，现被全球230家医院使用，“为84000多名患者的护理提供了支持”。

该发言人说：“与此同时，根据客户的不断反馈、新的科学证据以及新的癌症和治疗方案，我们不断学习，改进了Watson Health。这包括在去年发布了11个软件版本，用于提供更好的功能，包括针对结肠癌和肝癌等多种癌症的全国指南。”

诺顿告诉Stat自己不便发表评论，因为他不再为IBM工作。做报告后没过几周，他就加盟Cota，这是一家与IBM有合作的医疗数据分析公司。

纪念斯隆•凯特琳癌症中心的发言人凯特琳•胡尔（Caitlin Hool）告诉Stat，内部文件中的批评恰恰反映了开发Watson之类软件“的方法其可靠性备受关注。”

胡尔告诉Stat：“虽然Watson for Oncology提供了安全的治疗方案，但治疗决策最终需要主治医生的参与和临床判断。没有任何技术可以取代医生及其对患者个人的了解。”

相关阅读：